编程大模型全景
本节帮助建立"授人以渔"的模型选型能力：如何找到好模型、如何本地部署、如何做决策。
学习目标
- 掌握编程模型的核心评测榜单（去哪找、怎么读）
- 学会如何选择适合自己的模型（云端API / 本地部署 / 混合方案）
- 了解第三方API与本地化部署方案（Ollama、LM Studio、vLLM、LMDeploy）
- 建立模型选型的决策框架（需求、预算、硬件三维权衡）
本节方法论：AI时代日新月异，今天推荐的具体型号几个月后就会过时。与其记型号，不如记住流程——去榜单圈定候选（前10~20名）、用自己的真实任务实测、按预算和硬件收敛。以后看到更新的模型，重复这个流程即可自己得出答案。
一、如何找到优质编程模型
核心榜单推荐
记住这几个榜单就够了（数据核对于2026年10月）：
| 榜单 | 网址 | 特点 |
|---|---|---|
| DataLearner | datalearner.com/leaderboards/category/code | 中文友好，聚合SWE-bench/LiveCodeBench等基准+两个Arena盲测榜，日常主用 |
| LLM-Stats | llm-stats.com | 英文站，按coding/reasoning/搜索/工具调用分榜，coding榜已按成绩倒序排好 |
| OpenRouter Rankings | openrouter.ai/rankings | 按真实token用量排名，反映开发者"用脚投票"的结果 |
| GitHub中文大模型榜单 | github.com/jeinlee1991/chinese-llm-benchmark | 中文评测，已覆盖374个模型，标注开源/商用情况，方便挑选本地部署模型 |
| LiveCodeBench | livecodebench.github.io | 持续从LeetCode/AtCoder/CodeForces抓新题，抗污染 |
| BigCodeBench | bigcode-bench.github.io | 1140个调用真实库函数的实战任务，含Hard Set |
| SWE-bench Verified | swebench.com | 真实GitHub Issue修复，最被引用的工程能力基准 |
榜单解读技巧
DataLearner怎么用：进入「大模型评测 → 代码能力评测」，可按推理大模型、基座大模型、指令优化大模型、编程大模型筛选，结果倒序排列。它的精华是聚合了两个匿名盲测榜——静态基准容易被针对性优化（"刷榜"），匿名A/B对决的Elo排名更真实：
| 盲测榜 | 考察什么 | 2026-09/10前列（Elo） |
|---|---|---|
| LMArena Coding Arena | 通用编程：调试、算法实现、代码生成 | gemini-4-argon-high 1559、claude-fable-5-high 1552、Claude Opus 4.6 1551、kimi-k3-max 1541、mimo-v2.6-pro 1540 |
| Design Arena | 有视觉呈现的前端代码：网站、UI组件、游戏、数据可视化 | Claude Opus 5.5 1395、GPT-6 Astra 1389、Kimi K3 1372 |
注意两个榜的差异：通用编程Gemini 4领先，前端视觉代码Claude Opus 5.5断层第一——选模型要看你做的是哪类编程。
OpenRouter用量榜：OpenRouter是聚合各家API的服务商，充值一个账号即可调用所有模型；它顶部的Rankings按token用量排名，是榜单之外最真实的信号：
- 2026-10-07快照：DeepSeek V4.1 Flash以7.5T tokens/日居首（T=万亿），GLM 5.3 Flash、小米MiMo V2.6 Flash各约1.7T紧随，前12名中国产模型约占半数席位
- 录课时小米MiMo V2 Pro曾以单日2.48T tokens冲榜第一，DeepSeek、MiniMax、GLM也常年位居前列——用量靠前的模型基本都便宜且能打
- 提醒：用量不等于质量（便宜会放大用量），排名的剧烈变动比绝对排名更有信息量
榜单之间排名打架怎么办：各家评测体系不同，出入是常态——录课时LLM-Stats上Kimi K2.5排在GLM-5之后，DataLearner上MiniMax又比GLM-5靠前。正确姿势是榜单圈定候选、自己实测决断。
LiveCodeBench：
- 来源：持续从LeetCode、AtCoder、CodeForces抓取新题
- 抗污染：题目都是新的，模型没法"作弊"
- 评估：代码生成、自我修复、执行预测
BigCodeBench：
- 实战导向：调用真实库函数的编程任务
- Hard Set：150个用户最常遇到的挑战任务
- Complete vs Instruct：补全 vs 指令生成
模型能力维度
| 能力 | 评测方式 | 实际意义 |
|---|---|---|
| 代码生成 | LiveCodeBench | 能不能写出正确代码 |
| 自我修复 | BigCodeBench | 出错能不能自己修 |
| 长代码理解 | SWE-Bench | 能不能改大型项目 |
| 代码补全 | HumanEval | 能不能续写代码 |
2026年10月格局快照（SWE-bench Verified）
| 模型 | 分数 | 阵营 |
|---|---|---|
| Claude Opus 5 | 96% | 闭源 |
| Claude Mythos 5 | 95.5% | 闭源 |
| Claude Fable 5 | 95% | 闭源 |
| Ember-1（Fireworks） | 92.2% | 闭源 |
| Claude Opus 4.8 | 88.6% | 闭源 |
| Claude Sonnet 5 | 85.2% | 闭源 |
| GPT-5.3 Codex | 85% | 闭源 |
| Claude Opus 4.6 | 80.8% | 闭源 |
| DeepSeek V4 Pro | 80.6% | 开源 |
| MiniMax M3 | 80.5% | 开源 |
| Kimi K2.6 | 80.2% | 开源 |
| GLM-5 | 77.8% | 开源 |
| MiniMax M2.1 | 74.8% | 开源 |
三点观察：
- 历史进程：2024年6月Claude 3.5 Sonnet为49%；2026年2月Opus 4.6发布时约78%（当时与GPT-5.x并列第二、前六名差距不到3个百分点、国产MiniMax M2.1已达74.8%）；2026年下半年Opus 5冲到96%——两年间软件工程能力接近翻倍
- 开源阵营站上80%线：DeepSeek V4 Pro、MiniMax M3、Kimi K2.6与闭源第一梯队差距约15个点，但价格往往只有几分之一，日常开发性价比极高
- 榜单要辩证看：评测机构BenchLM已将SWE-bench Verified标记为"污染/饱和，仅供参考"——静态基准普遍存在针对性优化，盲测榜（Arena）+自己实测的组合更可靠
一个可参考的日常分工
按场景选模型（老师的用法，录课时分享）：
| 场景 | 模型 | 理由 |
|---|---|---|
| 翻译、杂活 | DeepSeek | 极便宜，用着舒服 |
| 日常开发主力 | GLM | 编码能力强、国内直连、有编程套餐 |
| 难题攻坚 | Claude Opus | 顶级模型成本高，只在值得的时候用 |
| 前端页面、复杂UI构思 | Gemini | 前端视觉代码是强项（Design Arena印证） |
二、编程模型分类
按部署方式分类
| 类型 | 特点 | 代表模型 | 适合场景 |
|---|---|---|---|
| 云端API | 开箱即用，按量付费 | 国外：Claude、GPT、Gemini；国内：GLM、Kimi、DeepSeek、Qwen、MiniMax | 快速开始、稳定生产 |
| 本地部署 | 数据私有，一次部署 | Qwen系列、GLM系列（免费商用、社区量化版本齐备） | 数据敏感、成本控制 |
| 混合方案 | 本地小模型+云端大模型 | 本地跑定时任务/翻译/分类，编码走云端 | 最佳性价比 |
三点补充：
- 国内云模型的额外优势：无支付门槛（不像国外模型要外币卡），且GLM（Coding Plan）、MiniMax（Token Plan）、Kimi、DeepSeek都已推出"量大管饱"的编程订阅套餐，重度使用者按订阅付费远便宜于按量
- 本地部署主力是两个系列：Qwen和GLM——免费商用、量化版本社区都做好了直接下载即用；DeepSeek开源线以超大MoE为主（V4 Pro为1.6T级总参数），消费级硬件跑不动，本地部署门槛高
- 混合方案在云端API之间同样适用，一个常见的进阶组合：Gemini写前端页面 + Codex做项目整体规划 + Claude做核心编码——让每个模型干它最擅长的事，极大节约token
按模型规模分类
| 规模 | 参数量 | 硬件需求 | 能力 |
|---|---|---|---|
| 小模型 | 3-9B | CPU或8-16GB显存 | 简单补全、快速响应、前期验证 |
| 中模型 | 14-35B | 16-24GB显存 | 日常开发主力 |
| 大模型 | 70B+/MoE | 48GB+显存或分布式（vLLM/SGLang） | 复杂任务、架构设计 |
按硬件分档选模型（录课口径）
| 硬件档位 | 可跑什么 | 说明 |
|---|---|---|
| 仅CPU | 量化小模型（3-7B） | 用llama.cpp或Ollama推理，性能尚可 |
| 8-16GB显存 | Qwen/GLM的7B、14B | Qwen3.5是思考型（带思考过程），适合前期验证，验证通过后再上大杯或云端API |
| 24GB显存（4090级） | Qwen3.5系列27B/35B、Qwen2.5-32B | 3.5思考型 vs 2.5非思考型：2.5直接输出吐字更快；3.5先思考再输出，不展示思考过程时体感偏慢 |
| 48GB+显存 | MoE大模型 | 不再适合Ollama/LM Studio，上vLLM/SGLang专业框架；如DeepSeek 671B MoE每token仅激活37B，48G显存即可跑 |
| Mac统一内存 | 34B也能跑 | 但吞吐约十几token/分钟，只适合尝鲜 |
两个经验法则：
- 参数量不是唯一判据：看模型文件体积是否装得进显存，装得进一般就能跑
- 上下文窗口与参数量同等重要：窗口太小，多轮对话会截断丢失前文，长任务尤其吃亏；选模型时把上下文窗口当成一个必查字段
三、本地化部署方案
方案对比
| 方案 | 优势 | 劣势 | 适合场景 |
|---|---|---|---|
| Ollama | 极简安装、跨平台、兼容OpenAI API | 并发一般；参数要改配置文件；模型为自有格式，通用格式需命令行转换 | 个人开发、测试 |
| LM Studio | 图形界面、跨平台（Win/Mac/Ubuntu）；参数比Ollama丰富——上下文窗口、内存占用均可调 | 同为单机定位 | 不想碰命令行的开发者 |
| vLLM | 高吞吐（比Ollama快3-5倍）、批量推理、生产级稳定、多卡并行 | 配置复杂；团队缺运维时故障难恢复 | 企业服务、十几人团队共享、高并发 |
| LMDeploy | 国产方案，官方适配昇腾/海光等国产算力，多卡推理 | 生态小于vLLM | 国产硬件、私有化 |
| SGLang（补充） | 对MoE模型优化好 | 同为专业框架 | 跑MoE大模型 |
选型速查：快速验证→Ollama；单机少量GPU→vLLM；MoE大模型→SGLang/vLLM；国产GPU集群→LMDeploy（或vLLM-Ascend）。个人玩家直接Ollama即可，没必要折腾vLLM——vLLM的价值在多卡并行和团队共享（十几人共用一份GPU资源更省），代价是出问题要有能力快速恢复。
Ollama兼容OpenAI API，意味着本地模型可以直接接入VS Code及其AI扩展类工具调用，个人开发与测试场景非常顺滑。
Ollama：5分钟本地部署
核心特点：
- 一键安装，无需配置
- 支持Windows/Mac/Linux
- 内置模型库，一键下载
- 兼容OpenAI API
适合场景：
- 个人学习和测试
- 快速原型验证
- 对并发要求不高
模型推荐（2026年10月核对于Ollama官方模型库）：
| 模型 | 大小 | 能力 | 命令 |
|---|---|---|---|
| qwen3.5:9b | 6.6-7.6GB | 思考型+视觉+工具调用，256K上下文，验证期主力 | ollama pull qwen3.5:9b |
| qwen3.5:27b | 17-20GB | 同系列大杯，24GB显存可跑 | ollama pull qwen3.5:27b |
| qwen2.5-coder:7b | 4.7GB | 纯代码补全，轻量够用 | ollama pull qwen2.5-coder:7b |
| glm4:9b | 5.5GB | 智谱开源，免费商用，中文友好 | ollama pull glm4:9b |
vLLM：生产级部署
核心特点：
- 高吞吐量（比Ollama快3-5倍）
- 支持批量推理
- 支持流式输出
- 生产级稳定性、多卡并行推理
适合场景：
- 企业内部服务、十几人团队共享GPU
- 高并发需求
- 需要稳定API
对国内外显卡（含国产算力经适配后）支持都比较成熟，是国内环境友好的选择。
国产算力现状（企业向）
企业私有化碰国产硬件时的参考（录课实测口碑+公开资料）：
- 昇腾910B/910C：华为官方推理引擎MindIE（支持Continuous Batching/PagedAttention/FlashDecoding），LMDeploy也官方适配昇腾（Atlas 800T A2/A3、300I Duo）；注意910B不支持bfloat16、需用fp16；8卡910B整机约¥70-100万、月租约¥1-4万，交付周期长
- 性能现实：单卡与国外旗舰卡有差距，多卡推理需"堆量"才能上来
- 海光：适配完善度和性价比常优于华为，企业试点建议先测海光、再拿华为报价对比，海光商务报价更低时优先海光
- 受出口管制影响，国产算力生态兼容性仍在补课（下载组件常需申请）；好在社区大、踩坑经验多
- 深入的内网/私有化部署（npm私服、k3s+推理集群、离线安装链路）见第19章
私有云与混合云怎么选
| 场景 | 方案 |
|---|---|
| 数据合规要求高 | 纯本地部署 |
| 成本敏感 | 云端按量付费 |
| 高可用 | 混合云（线上多套互备，或线上+线下各一套） |
常见云服务商都提供私有化方案，有需要找商务谈即可，此处不展开。
本地模型推荐
开源编程模型排行（2026年10月，按SWE-bench Verified）：
| 模型 | 参数 | 能力评级 | 特点 |
|---|---|---|---|
| DeepSeek V4 Pro | 1.6T级MoE | ★★★★★ | 开源最强工程能力80.6%，需服务器级硬件 |
| MiniMax M3 | MoE | ★★★★★ | 80.5%，开源，原生多模态+1M上下文 |
| Kimi K2.6 | 1T级MoE | ★★★★★ | 80.2%，开源 |
| GLM-5 | 745B | ★★★★☆ | 77.8%，免费商用，社区量化版本齐备 |
| Qwen3.5-397B-A17B | 397B（激活17B） | ★★★★☆ | 76.4%，激活参数小、相对好跑 |
| Qwen3.6-27B | 27B | ★★★★ | 77.2%，消费级硬件可跑的开源前列 |
四、模型选择决策框架
按需求选择
| 需求 | 推荐 | 理由 |
|---|---|---|
| 最快上手 | 网页版Claude/Kimi | 无需配置 |
| 最低成本 | GLM-4.7-Flash + 通义灵码 | 完全免费 |
| 数据敏感 | 本地Ollama + Qwen/GLM | 数据不外传 |
| 最高质量 | Claude Opus 5（闭源）/ DeepSeek V4 Pro（开源） | SWE-bench 96% / 80.6% |
| 团队协作 | Cursor + Claude API | IDE集成好 |
按预算选择（2026-11-07 复核）
| 预算 | 方案 | 月成本 |
|---|---|---|
| ¥0 | 通义灵码 + Kimi网页 + GLM-4.7-Flash免费档 | ¥0 |
| <¥50 | MiniMax Token Plan（Plus ¥49起）或 DeepSeek V4.1 Flash按量：输入0.3/输出1.2每百万tokens，缓存命中低至$0.006 | ¥20-50 |
| ¥49起 | GLM Coding Plan：Lite ¥49 / Pro ¥149 / Max ¥469（2026-11-07 核实；非高峰积分5折、高峰为工作日14:00-18:00），GLM-5.3全档可用 | ¥49+ |
| 本地私有 | 一张RTX 4090 + Ollama | 一次性¥1.5万 |
决策三原则（本节收束）
- 需求、预算、硬件三维综合权衡，不要只看某一维
- 不追求大模型：日常任务7-14B已经够用，大杯留给验证通过后的正式场景
- 上下文窗口与参数量同等重要：窗口大，长对话不因截断而丢失前文
五、评测指标解读
核心指标
| 指标 | 含义 | 好的标准 |
|---|---|---|
| Pass@1 | 一次生成正确率 | >80% |
| Pass@10 | 10次采样至少1次正确 | >95% |
| HumanEval | 简单编程题 | >90% |
| SWE-Bench | 真实GitHub Issue修复 | >50% |
| LiveCodeBench | 竞赛级编程题 | >70% |
指标选择
| 场景 | 看什么指标 |
|---|---|
| 代码补全 | HumanEval、MBPP |
| Bug修复 | SWE-Bench |
| 算法题 | LiveCodeBench |
| 项目理解 | 长上下文能力 |
六、本地部署最佳实践
硬件配置建议
| 配置 | 价格 | 能跑的模型 |
|---|---|---|
| MacBook M3 16GB | ¥1.2万 | 7B模型量化版 |
| Mac Studio M3 32GB | ¥2万 | 14B模型 |
| RTX 4060 16GB | ¥3000 | 7-14B模型 |
| RTX 4090 24GB | ¥1.5万 | 32B模型 |
| 2x RTX 4090 48GB | ¥3万 | 70B模型量化 |
| 4x A100 80GB | ¥50万+ | 任何开源模型 |
软件配置建议
个人开发：
- Ollama + VS Code插件
- 模型：qwen3.5:9b / qwen2.5-coder:7b（16GB显存可上27B）
小团队：
- vLLM服务器 + 团队共享（十几人共用一份GPU更省）
- 模型：Qwen3.5-27B/35B或GLM系列量化版
企业私有：
- vLLM/SGLang集群 + GPU服务器
- 模型：Qwen3.5-397B-A17B、GLM-5或私有微调；国产算力走LMDeploy/vLLM-Ascend
参考资料
榜单网站
- DataLearner代码能力评测 — 中文友好，聚合SWE-bench/LiveCodeBench/Arena盲测
- LLM-Stats
- OpenRouter Rankings — 按真实token用量排名
- LiveCodeBench
- BigCodeBench
- SWE-bench
- GitHub中文大模型榜单
本地部署
- Ollama官网（qwen3.5等模型页含CLI/cURL/Python/JS示例）
- vLLM文档
- LMDeploy文档（含华为昇腾适配）
- MindIE（昇腾推理引擎）
- Qwen
- DeepSeek
↑